Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

путь к единоличному абсолютному контролю над AGI. Вы утверждаете, что не хотите контролировать итоговый AGI, но в ходе этих переговоров показали нам, что абсолютный контроль крайне важен для вас». Они добавили, что, учитывая основание OpenAI «для предотвращения диктатуры AGI», было бы «плохой идеей создавать структуру, где вы сами могли бы при желании стать диктатором».

Но и к Альтману они относились с подозрением, особенно учитывая его политические амбиции. «Мы не смогли полностью доверять вашим суждениям на протяжении этого процесса, поскольку не понимаем вашу целевую функцию, – писали они на языке, напоминающем участников школьной математической олимпиады. – Мы не понимаем, почему для вас так важна должность генерального директора. Ваши объяснения постоянно меняются, и трудно понять, что на самом деле движет вами. Действительно ли AGI – ваша главная мотивация? Как это связано с вашими политическими целями? Как менялся ход ваших мыслей с течением времени?» Эти сомнения в большей степени исходили от Суцкевера, но в какой-то мере их разделял и Брокман.

Маск прекрасно понял, что стоит за этим письмом, несмотря на все попытки авторов соблюсти беспристрастность.

«Ребята, с меня довольно. Это последняя капля, – ответил он всего через несколько часов. – Либо вы занимаетесь чем-то своим, либо продолжаете работать в OpenAI как некоммерческой организации. Я прекращаю финансирование OpenAI до тех пор, пока вы не дадите твердое обязательство остаться. Иначе я просто дурак, который, по сути, бесплатно финансирует ваш будущий стартап. Обсуждения закончены»[282]. Он перестал перечислять деньги, хотя еще какое-то время продолжал платить за аренду. На помощь пришел Рид Хоффман, сооснователь LinkedIn и университетский друг Питера Тиля, – он взял на себя выплату зарплат сотрудникам OpenAI и покрытие других текущих расходов.

К концу 2017 года Маск переманил в Tesla Карпатого, назначив его руководителем направления искусственного интеллекта и поручив разработку технологии беспилотного вождения. А в январе 2018 года Маск отправил Суцкеверу и Брокману письмо, в котором предлагал объединить OpenAI с Tesla.

«Мне кажется, что OpenAI сегодня просто сжигает деньги и эта модель финансирования не позволит вам достичь масштаба, необходимого для серьезной конкуренции с Google (компанией стоимостью 800 миллиардов долларов), – писал он. – Переход к коммерческой модели мог бы со временем создать устойчивый поток доходов и с нынешней командой наверняка привлек бы солидные инвестиции. Однако создание проекта с нуля отвлечет вас от исследований в области ИИ, потребует много времени, и неясно, сможет ли компания достичь масштабов Google. К тому же инвесторы могут оказывать давление, толкая вас в неверном направлении. Лучшим решением, как я уже предлагал, было бы включение OpenAI в состав Tesla, что обеспечило бы вас надежным источником финансирования». Он утверждал, что это беспроигрышный вариант: технологии OpenAI могли бы ускорить разработку беспилотных автомобилей Tesla, что значительно повысило бы рыночную стоимость компании, позволяя ей финансировать работу OpenAI над созданием AGI: «Если через два-три года у нас будет готовое полноценное решение для автономного вождения, мы сможем продать огромное количество автомобилей и грузовиков». Этот шаг, утверждал Маск, позволит увеличить капитализацию Tesla, а OpenAI сможет использовать полученные доходы для работы над ИИ в гораздо большем масштабе. «Я не вижу никакой другой возможности в течение десятилетия достичь устойчивого финансирования уровня Google», – писал он[283].

В конце того же месяца, в непривычно холодный и ветреный для Сан-Франциско день, сотрудников OpenAI пригласили на верхний этаж здания Pioneer Building на экстренное общее собрание, вызвавшее у всех дурные предчувствия. Маск, сидя на диване в окружении десятков сотрудников, огорошил всех новостью о том, что окончательно покидает OpenAI, объяснив это конфликтом интересов из-за своих проектов в области ИИ в Tesla. Альтман поблагодарил его за вклад в работу компании и попытался быстро завершить встречу. Но сотрудники требовали объяснений, и Маск, верный себе, стал отвечать. Вопросы сыпались один за другим: как он будет обеспечивать безопасность технологии? Зачем разворачивать конкурирующий проект в Tesla, если это лишь подстегнет гонку в разработке ИИ, которая может выйти из-под контроля? В конце концов Маск не выдержал и обозвал молодого исследователя кретином, повергнув аудиторию в шок.

Маск вихрем вылетел из офиса и больше никогда не появлялся в OpenAI. Альтман попытался успокоить сотрудников, заверив, что уход Маска не угрожает молодой лаборатории, хотя именно он обещал внести большую часть первоначального финансирования в миллиард долларов.

После этого Альтман, по сути, стал генеральным директором OpenAI, хотя официально это будет оформлено только через год. Он немедленно занялся главной проблемой: лаборатории требовались колоссальные вычислительные мощности. В краткосрочной перспективе это означало привлечение новых спонсоров и консультантов, среди которых оказались видные представители движения эффективного альтруизма, такие как Яан Таллинн и Джулия Галеф – известный интеллектуал-рационалист, которая годом ранее выступала на конференции EA Global вместе с Гордоном-Левиттом[284]. В долгосрочной перспективе предстояло решить несколько принципиальных вопросов: покупать чипы у Nvidia, арендовать их у технологических гигантов или создавать самим? Его главным партнером в решении этих задач стала новая сотрудница – Мира Мурати, в прошлом одна из самых молодых продакт-менеджеров в истории Tesla.

Мурати выросла в Албании в период хаотичного перехода страны от коммунизма к капиталистической демократии западного образца[285]. Средняя из троих детей в семье школьных учителей, она с детства проявляла выдающиеся способности: сделав свою домашку, бралась за учебники старшей сестры и участвовала в математических олимпиадах. В 16 лет Мурати выиграла стипендию на обучение в Pearson College UWC – международной школе-интернате в Ванкувере, входящей в глобальную сеть учебных заведений. Для получения высшего образования она поступила на пятилетнюю программу двойного диплома по инженерии в колледжах Колби и Дартмут, где в качестве дипломного проекта построила гибридный гоночный автомобиль. «Это было увлекательно, но прежде всего мы хотели сделать что-то по-настоящему сложное, поэтому вместо батарей использовали суперконденсаторы – старались раздвинуть границы возможного», – рассказывала Мурати в подкасте технического директора Microsoft Кевина Скотта[286].

Она окончила учебу в 2012 году, после чего недолго проработала стажером сначала в Goldman Sachs, а затем во французской компании Zodiac Aerospace, но в последнем случае была разочарована темпами работы отрасли. «Я поняла, что аэрокосмическая индустрия развивается слишком медленно», – сказала она, выступая в Дартмуте в 2024 году[287]. В том же интервью она вызвала небольшой скандал, заявив, что в результате распространения ИИ «некоторые творческие профессии, вероятно, исчезнут, но, возможно, их изначально не должно было существовать» – цитата, которую, по ее мнению, вырвали из контекста. В 2013 году Мурати пришла в Tesla, где работала над Model S – четырехдверным седаном и кроссовером Model X. В качестве продакт-менеджера Model X она курировала производство, продажи, дизайн, инженерные решения, аппаратное и программное обеспечение. В период ее работы над